盲目的な行動が抱える問題
複雑な論理問題を解いたり、複数の情報を取得したりする際に、AIに即座に行動(Action)を決定させることは、致命的なエラーにつながる可能性があります。
人間がジグソーパズルを解く様子を思い浮かべてみてください:
- 人間は、ランダムにピースを手に取ってボードに無理やり押し込んだりはしません。
- 頭の中や口に出して、戦略を練ります: 「まず、枠になる直線的なエッジのピースを見つけて、それからこの青いピースが合うかどうかを確認しよう」
同様に、AIに対して のみ 推論の段階を飛ばして行動(Action)だけを出力するように指示すると、AIは「盲目的に行動」することになります。クエリに答えるための前提条件を整理できていないため、しばしば推測したり、誤った情報を生成(ハルシネーション)したり、完全に間違ったツールを選んだりします。
声に出して考える
言語モデルはトークンごとに論理を構築します。AIに「声に出して考える」(問題を分析するテキストを生成する)ことを強制することで 前に 行動を選択する前に、正しい論理的結論にたどり着くための必要なワークスペースをAIに提供することができます。
